home *** CD-ROM | disk | FTP | other *** search
/ NetNews Offline 2 / NetNews Offline Volume 2.iso / news / comp / lang / c-part1 / 8917 < prev    next >
Encoding:
Internet Message Format  |  1996-08-05  |  2.4 KB
  1. Path: s02.pavilion.co.uk!usenet
  2. From: AJRobb@pavilion.co.uk (Andy J Robb)
  3. Newsgroups: comp.lang.c
  4. Subject: Re: f;oating point precision
  5. Date: Thu, 07 Mar 1996 05:45:18 GMT
  6. Organization: Pavilion Internet plc
  7. Message-ID: <4hlt40$au@s02.pavilion.co.uk>
  8. References: <c0d_9603050128@csource.blaze.net.au>
  9. NNTP-Posting-Host: poolc15.pavilion.co.uk
  10. X-Newsreader: Forte Free Agent 1.0.82
  11.  
  12. David.Burrows@f158.n633.z3.fidonet.org (David Burrows) wrote:
  13.  
  14. >Help.... I am getting floating point innaccuracies at about the 4th decimal
  15.  
  16. >place. eg i enter 510.0250 and it comes out as 510.0249.
  17. >I am just starting to learn c so please excuse my ignorance.
  18. >                                                             dave
  19.  
  20. -----BEGIN PGP SIGNED MESSAGE-----
  21.  
  22. Hi Dave,
  23. In general, a (float) number will only be accurate to 5 or 6
  24. significant figures.  In your example, the innacuracy occured in the
  25. 6th digit.  If you used "%8.3f" to display the number, you should see
  26. "510.025".  BTW, if you display 7 significant figures, you have enough
  27. information to recreate the exact binary image of the number when you
  28. scan it back in (assuming IEEE P795 floating point binary format).
  29.  
  30. A (double) will generally be accurate to 14 significant figures.  This
  31. does not mean that you can represent 510.025 exactly - in binary you
  32. can't.  However, the error will be small.  Again, to store the full
  33. precision of a (double) requires a 17 digit mantissa.
  34.  
  35. As you are just starting, may I suggest that you obtain a copy of the
  36. frequently asked questions (FAQ).  This gets posted about once a month
  37. to this newsgroup, so it may still be on your news feed.  It seems it
  38. was last posted on 1-Feb-1996.  Alternatively, if you have a web
  39. brouser, go to URL: 
  40.  
  41.     http://www.eskimo.com/~scs/C-faq.top.html
  42.  
  43. Regards,
  44. Andy Robb.
  45.  
  46.  
  47. -----BEGIN PGP SIGNATURE-----
  48. Version: 2.6.2i
  49.  
  50. iQCVAwUBMT53y5Pl4P16x9sNAQHAFgP9FATdVBX4BbDHgybM9D9WvGbNacxxbZne
  51. rl1UOgsiGk0aOALbDWQuGW8+OgtE1gAYv144W5ObNOkO1zJQTt0KTfvDSQ35c+91
  52. FbObvYc1DZcALe9kHv+BsHkZhFXpWO4xPNTfYbLSnF+JlNrHxuENzc4E42y7+4MP
  53. BWjkEDg+ZTE=
  54. =t/AV
  55. -----END PGP SIGNATURE-----
  56.  
  57. -----BEGIN PGP PUBLIC KEY BLOCK-----
  58. Version: 2.6.2i
  59.  
  60. mQCNAy/MpRwAAAEEAOt6uBYqT8yv9EmqNhK8m6v+bYi8QjnGW3Bo6iU1gsMj5pa6
  61. MHgq99c8deADbE3cbJ6uZS9v5pZE3WCf6HCQjlB5iULA5RZzMdAumd/WUzuL9UT3
  62. B44D9EqqFIL79FlYb56v4oKFqFp1/J2bIpYUwnUvabGzGjdLrpPl4P16x9sNAAUR
  63. tCNBbmR5IEogUm9iYiA8QUpSb2JiQHBhdmlsaW9uLmNvLnVrPrQhQW5keSBSb2Ji
  64. IDxBSlJvYmJAcGF2aWxpb24uY28udWs+
  65. =/wVD
  66. -----END PGP PUBLIC KEY BLOCK-----
  67.  
  68.